En 1214, un prêtre marseillais de l’église des Accoules, Maître Pierre (+ 1256), y mène une vie d’ermite et obtient l’autorisation de l’abbé de Saint-Victor d’y bâtir une chapelle dédiée à la Vierge (Notre-Dame de la Garde), d’y cultiver un potager et de planter une vigne. Quatre ans plus tard, la chapelle est achevée, comme l’atteste une mention du pape Honorius III dans sa bulle du 18 juin 1218, énumérant les possessions de Saint-Victor. En 1256, Notre-Dame de la Garde devient un prieuré dont le supérieur est l’un des prieurs claustraux de Saint-Victor. Peu à peu, les premiers marins viennent demander à la Vierge de les protéger en mer.
En 1302, Charles II d’Anjou ordonne que les signaux alertant de la présence de bateaux ennemis soient lancés depuis la colline de Notre-Dame de la Garde. La vocation militaire de l’endroit est née.
Le nombre de pèlerins augmente peu à peu, ce qui conduit au XVe siècle à quelques aménagements. Néanmoins, la chapelle reste modeste, contenant au plus une soixantaine de personnes. Après le succès français de Marignan, François Ier, sa mère Louise de Savoie, et son épouse la reine Claude, viennent remercier Notre-Dame de la Garde en janvier 1516. Dès lors, les rois de France successifs prêtent une attention privilégiée à ce sanctuaire. Louis XIII viendra s’y recueillir en 1622, son fils Louis XIV (1638-1715), y fera transporter une belle statue en argent de la Vierge, avant que ses deux petits-fils, les ducs de Bourgogne et de Berry, viennent à leur tour au tout début du XVIIIe siècle.
En 1524, l’empereur Charles-Quint tente de conquérir la Provence. L’année suivante, François Ier décide de doter la ville de deux forts militaires pour assurer sa défense : le château d’If, achevé en 1531 et rendu célèbre par le roman d’Alexandre Dumas Le Comte de Monte-Christo ; et un second fort qui est construit sur la colline de la Garde, englobant alors la petite chapelle. Aujourd’hui, il ne reste que peu de vestiges de cette forteresse, hormis l’éperon royal à l’ouest de l’actuelle basilique.
En 1588, la destruction de l’église Saint-Étienne à Marseille très fréquentée par les marins renforce la popularité de Notre-Dame de la Garde. Et au début du XVIIIe siècle, la peste mène à son tour les pèlerins à fréquenter le sanctuaire. Nombreux sont les fidèles provençaux qui viennent remercier Marie de les avoir préservés. De septembre 1720 à août 1721, l’évêque du diocèse, Mgr Henri de Belsunce, y monte lui-même trois fois à pied.
À la fin du XVIIIe siècle, se succèdent des évènements peu réjouissants pour Notre-Dame de la Garde. Le 30 avril 1790, le fort est envahi par les troupes révolutionnaires et trois ans plus tard, tous les édifices religieux français sont désaffectés. C’est la fin du culte. Notre-Dame de la Garde est transformée temporairement en prison, où Philippe Égalité et ses deux fils seront détenus. Le 10 avril 1795, les objets du sanctuaire sont vendus par lots.
La chapelle, devenue bien national, est alors louée par Joseph-Elie Escaramagne, ancien marin et dévot à la Vierge. Il offre au sanctuaire une statue achetée dans une vente aux enchères, provenant d’un couvent parisien de Picpus : la « Vierge au bouquet » (installée aujourd’hui derrière l’autel de la crypte). En 1807, après le Concordat, le culte reprend.
Le XIXe siècle est une ère de renouveau pour le site, qui verra notamment la procession organisée le jour de la Fête-Dieu ressusciter en 1814. Deux ans plus tard, la duchesse de Berry fait le pèlerinage et offre un ex-voto : une statuette en argent. La duchesse d’Angoulême fait un don en 1823 pour la fabrication de la monumentale Vierge d’argent dite « de Chanuel », qui vise à remplacer la Vierge « à l’ostensoir » fondue sous la Révolution. Actuellement située sur l’autel majeur de la basilique, elle a été admirée par Chateaubriand, pèlerin en 1838.
En 1833, on construit une seconde nef (250 m2 au total) bénie par Mgr Fortuné de Mazenod. Et dans les années 1840, on érige un nouveau clocher, permettant d’accueillir un bourdon de plus de huit tonnes baptisé « Marie-Joséphine ». On est contraint de le placer sur un chariot tiré par seize puis par vingt-six chevaux ! Les fidèles entendent ses premières notes le 8 décembre suivant, jour de l’Immaculée Conception.
De 1850 à 1852, le clergé de Marseille débute des négociations avec les autorités françaises pour agrandir le sanctuaire. La première pierre du projet romano-byzantin de Jacques-Henri Espérandieu est posée le 11 septembre 1853, mais les travaux sont longs et coûteux. En septembre 1860, Napoléon III et l’impératrice Eugénie se rendent sur place. Le nouveau sanctuaire est consacré le 4 juin 1864 par le cardinal Villecourt, entouré de 43 évêques.
À la fin des années 1860, on pose sur le clocher un piédestal servant à accueillir la future statue monumentale de Marie, financée par la ville de Marseille, qui connaît à cette époque un essor sans précédent. Cette statue est réalisée en cuivre par l’entreprise parisienne Christofle et Bouilhet, suite au projet d’Eugène-Louis Lequesne et selon une technique novatrice appelée « galvanoplastie ». Haute de 11,20 mètres (23,70 mètres avec son piédestal), lourde de près de dix tonnes, elle est assemblée en quatre tronçons et un escalier intérieur permet d’atteindre son sommet. Le 24 septembre 1870, en pleine guerre franco-prussienne, cette Vierge à l’Enfant recouverte de 500 grammes d’or est bénie. Livrée aux intempéries et au sel marin, elle est redorée tous les 25 ans.
En 1874, Henri-Antoine Révoil prend en charge la décoration intérieure, faite notamment de mosaïques, d’un autel majeur et de stalles en noyer installées dans le chœur. Aujourd’hui, la basilique est toujours célèbre pour ses mosaïques dont la surface développée sur les voûtes et le sol est d’environ 1200 m2. Elles ont été réalisées par la société Mora installée à Nîmes. Les tesselles (petits carreaux) provenant de Venise ont été fabriquées par des artisans au sommet de leur art. Chaque panneau comporte près de 10 000 tesselles au mètre carré, ce qui représente au total environ 12 millions de petits carreaux de 1 à 2 cm2. Ces mosaïques constituent un ensemble exceptionnel par la complexité de ses décors réalisés par des architectes ou des peintres de renom et par la qualité des tesselles. Les sols sont revêtus d’environ 380 m2 de mosaïques romaines au dessin géométrique.
En 1892, on achève le funiculaire, dit « l’ascenseur », facilitant l’accès à la basilique ; mais son exploitation cessera en 1967 par manque de rentabilité. Vingt millions de passagers l’ont emprunté.
En pénétrant dans la basilique, le visiteur ne peut qu’être frappé par la profusion d’objets : des plaques de marbre sur les murs, des tableaux présentés « à touche-touche », des maquettes suspendues aux voûtes… Il s’agit d’une tradition populaire très ancienne et pourtant encore active à Notre-Dame de la Garde : les ex-voto (cf. compléments).
Notre-Dame de la Garde ne tire pas son origine d’une apparition de la Vierge, mais elle témoigne de l’amour permanent des fidèles pour la Mère de Dieu. Libéré des occupants nazis le 25 août 1944, le lieu fait l’objet de travaux de réfection après la Libération (remise en état du clocher qui manqua de s’écrouler lors des combats, mosaïques repeintes de façon temporaire dans l’attente du remplacement des tesselles…), mais c’est dans les années 2000 que la basilique retrouve son éclat extraordinaire.
Le 11 juillet 2013, est inauguré le Musée du site retraçant l’histoire du sanctuaire qui, cette année-là (année où Marseille était capitale européenne de la Culture), a reçu plus de deux millions et demi de visiteurs. C’est le monument le plus visité de la ville, dont elle est devenue le symbole.
En 2014, Marseille a célébré le huitième centenaire de la construction de la chapelle dédiée à Marie par Maître Pierre en 1214.